Hz. Muhammed (s.a.v)'in İsrâ hadisesi gerçekleştiğinde, İslam fetihleri devri başladı.

Bu hadisede Kâbe ve Mescid-i Aksa'nın aralarında manevi olarak bağlantı kuruldu. İslam Ordusu Ubeyde Bin Cerrah önderliğinde şehri kuşattılar.

Patrik Safronyus şehrin anahtarını Hz.Ömer'in kendisine vermek istedi ve Hz.Ömer şehre geldi. Maddi olarak bağlantı Hz.Ömer (r.a)'ın şehre gelmesiyle gerçekleşti (636). Şehri aldıktan sonra bir emaname (güven fermanı) yazıldı ve Hz Ömer (r.a) şehrin ismini "İlya"dan "Kudüs"e çevirdi.

Halife Ömer döneminde Sasanilerle yapılan savaşlar sonrası Kudüs 636 yılında ilk kez Müslümanların eline geçti. Rivayete göre Ömer, Kudüs'e girdiğinde baş patriğe kendisini Tapınak Tepesine, Süleyman mabedinin yerine götürmelerini rica etti. Bu mevki yıkıntı ve döküntülerle doluydu. İslama Yahudilikten dönen "Ka'b el-Ahbâr, dinsel bilgilerinin yardımıyla Yahudilerin nerede tapındıklarını gösterdi. Ömer tapınaktan geri kalanları buldu. Halife Ömer ilk olarak Beytü'l-Makdıs'ı ve Muallak Taşının bulunduğu kısmı yıkıntılardan temizlemiştir. Sonra üzerinde "Sahre Mescidi" adı ile anılan, kamıştan bir namazgah yaptırmıştır.

Selçuklular tarafından 1071'de ele geçirilen Kudüs, Hıristiyan toplumunda özellikle XI.yüzyıl ile süregelen Haçlı Seferleri sırasında hedef haline gelmiştir. Haçlı Seferleri'nin başlaması ile Hıristiyan dünyasındaki Yahudi düşmanlığı siyasi, iktisadi ve sosyal etkileri ile birlikte daha da şiddetlenmiştir.
Saygınlığını yitirmeye başlayan kilise, politik isteklerini yönlendirmek için "Hz. İsa'nın içinde yattığı kutsal lahdin kurtarılması gerekliliği" gibi göstermelik dini gerekçeler öne sürerek etkinliğini korumaya çalışmıştır.
1099'da Papa II. Urban'ın çağrısı üzerine Avrupa'dan kutsal toprakları kurtarma inancıyla gelen Haçlılar, Kudüs'ü ele geçirerek burada Kudüs Latin Krallığı'nı kurmuşlar, Hıristiyanlığı yaymaya uğraşmışlardır.

Kudüs Selahattin Eyyubi tarafından fethedildi. Kudüs'ün Fethi veya Kudüs Kuşatması, 20 Eylül 1187'de Selahaddin Eyyubi'nin başlatmış olduğu kuşatmadır. Şehri savunan Kudüs komutanı İbelinli Balian'ın 2 Ekim 1187'de şehri teslim etmesiyle sona ermiştir. Kudüs'te yaşayan Hristiyan toplumun şehrin teslim edilmesi ile diğer Hristiyan topraklara göç etmiştir.Kübbetü's Sahra'nın üstündeki haç işaretini kaldırttı. Şehrin restore, mimari ve yenilenmesine çok önem verdi. Mübarek Mescid-i Aksa'ya Nureddin Zenki'nin hazırlamış olduğu minberi hediye etti. Bu minberin işlemesi İslam şaheserlerindendir.

Selahattin Eyyubi'nin ölümü üzerine Haçlı orduları 1193'te bu bölgeyi tekrar ele geçirmişler ancak Haçlıların Eyyubi'den sonra Mısır'da iktidara gelen Memluklara 1291'de yenilmeleri ile kutsal topraklar üzerindeki hakimiyetleri sona ermiştir. Haçlı saldırılarına engel olmak için Memluklar tarafından limanlar ve şehirler yıkıldı.

Osmanlı Ordusu, Sinan Paşa önderliğinde, Kudüs'e girdi. Yahudilerin Kudüs'e dönmeleri serbest bırakıldı.